Невидимые правители. Люди, которые превращают ложь в реальность - Renee DiResta

мемов (некоторые из них были разработаны правительством, другие - группами цифровых волонтеров в Telegram-каналах) 76 , так и в представлении своих лидеров в прямых трансляциях, личных и увлекательных видео, размещенных на платформах социальных сетей. Они привлекли внимание глобальной аудитории. 77 Как нападающая, так и защищающаяся стороны в конфликте уделяли первостепенное внимание созданию материалов, которые аудитория могла бы подхватить и распространить, вовлекая в пропагандистскую войну случайных прохожих.

Хотя некоторые материалы, размещаемые официальными аккаунтами, явно преследуют политические цели, и люди делятся ими, чтобы выразить поддержку той или иной стороне, эта цифровая "призывная кампания" часто бывает очень тонкой. Чтобы активизировать мельницу слухов и превратить обычных людей в невольных распространителей государственных сообщений, государственные пропагандисты взяли на вооружение риторику любителей теорий заговора: Некоторые люди в интернете говорят... Например, когда Россия вторглась в Украину, она использовала теории заговора, почерпнутые из отбросов американских социальных сетей, чтобы выдвинуть обвинения в наличии в Украине "лабораторий по производству биооружия", которые якобы действовали в сговоре с Министерством обороны. Эта теория, впервые популяризированная в Twitter американским влиятельным участником QAnon "WarClandestine", была использована российскими государственными СМИ в качестве предлога для вторжения - Россия должна была закрыть лаборатории !- после того как другие предлоги (например, якобы необходимость "денацификации" Украины) не вызвали поддержки населения. 78 Китай быстро подхватил и поддержал российские теории заговора о биооружии, жалуясь на участие Соединенных Штатов. "США должны объяснить миру, что происходит в биолабораториях", - наставляло китайское государственное СМИ Global Times, бесстыдно намекая на то, что лаборатории работали над образцами коронавируса летучих мышей во время вспышки COVID-19. 79 Воины-волки" разместили в твиттере сложную инфографику, якобы разоблачающую "американский БИО-ВЭБ". 80 Риторика была практически неотличима от заурядного конспирологического теоретизирования, которое регулярно приводит в действие мельницы слухов: "Что США скрывают в биолабораториях, обнаруженных в Украине?" 81 И действительно, примечательно, что этот вопрос был повторен на Fox News ведущим Такером Карлсоном. 82

Позднее взломанные документы раскрыли двустороннее соглашение между Россией и Китаем, подписанное в июле 2021 года, о сотрудничестве в области освещения новостей и пропагандистских нарративов. 83

Когда дело доходит до реального осуществления этих операций влияния, за рулем часто оказываются профессиональные PR- и медиакомпании - те самые "невидимые правители". Региональные фирмы, которые успешно управляют аккаунтами реальных людей в социальных сетях, также запускают фальшивые сети от имени правительства. Действительно, возникла целая международная индустрия: правительства Гондураса и Гватемалы якобы заключили контракт с базирующейся в США и Венесуэле фирмой, чтобы нацелиться на своих внутренних конкурентов. 84 Одна израильская фирма хвасталась репортерам, работающим под прикрытием, что она участвовала в более чем тридцати "черных операциях" на выборах. 85

Государство и толпа

Государственные акторы не полагаются только на фальшивые личности, когда используют мельницу слухов. Нынешняя правящая партия Индии, Партия Бхаратия Джаната (BJP), сочетает ботов с организацией реальных сторонников; подлинные участники про-ЯП групп WhatsApp работают коллективно, чтобы сделать вещи трендовыми на популярных платформах. 86 Часть поддержки - это реальный низовой активизм. Однако BJP также полагается на микро-инфлюенсеров, которым платят за восхваление правительства и нападки на соперников, смешивая пропаганду и слухи со значительной долей преследования. 87 "Информационные йоддхи" (воины), организованные в тысячи региональных ячеек, вносят контент в группы WhatsApp, который реальные участники органично распространяют; иногда слухи приводили к насилию толпы. 88 Другие индийские партии, такие как Индийский национальный конгресс, используют сочетание подлинных и неподлинных тактик в своей борьбе с BJP. 89 Партии признают, что рассказ, исходящий из надежных источников - например, история друга, переданная вашей тетей, - часто более убедителен, чем рассказ диктора новостей. 90

Поскольку WhatsApp зашифрован, компании Meta (которой он принадлежит) сложно реагировать на тактику манипулирования, как это делается в Facebook или Instagram - толпа менее заметна. Компания пыталась ограничить количество людей в группах и число пересылок сообщений, чтобы избежать распространения вирусных, деконтекстуализированных слухов. Гражданское общество создало инициативы по проверке фактов, в рамках которых люди могут добровольно отмечать контент для группы по проверке фактов, которая быстро опубликует сообщение в блоге, разъясняющее ситуацию. Конечно, как и в Соединенных Штатах, аудитория должна быть восприимчива к проверке фактов. Индивидуальные реалии не ограничиваются Соединенными Штатами.

Как и активисты, работающие на благо страны, государственные деятели становятся недовольны, когда платформы вмешиваются в их взаимодействие с полезными толпами. Например, усилия по разрушению манипуляционных сетей в Индии привели к тому, что платформам стали угрожать ответными мерами со стороны государства. Джек Дорси, бывший генеральный директор Twitter, утверждал, что правительство премьер-министра Нарендры Моди зашло так далеко, что угрожало закрыть операции технологических компаний в стране и провести обыски в домах их сотрудников, если компании не будут модерировать в соответствии с требованиями правящей партии; правительство Индии опровергло его заявления. 91 Также были обвинения в том, что Meta обращалась с политическими аккаунтами в Индии в перчатках. 92

Разоблачение операций влияния может вызвать бурное перформативное негодование, а иногда и агрессивную реакцию со стороны тех, кто проводил эти кампании или получал от них выгоду. Реакция включает в себя клеветнические кампании против независимых исследователей (многочисленные государственные СМИ нелестно писали о Стэнфордской интернет-обсерватории!) Звучат угрозы, иногда подразумеваемые, судебного или физического возмездия - особенно если у исследователя или сотрудника технологической компании есть члены семьи, проживающие в стране, ставшей объектом захвата. Страх перед возмездием в отношении семьи иногда удерживает исследователей, обладающих глубокими культурными знаниями или знанием языка, от расследования дезинформационных кампаний, проводимых этими правительствами, или от публикации своих имен.

Массовое производство нереальности

Операции влияния происходят на постоянно развивающемся игровом поле: каждая новая платформа становится мишенью, которую пропагандисты могут использовать по мере роста ее пользовательской базы. Любая новая технология, помогающая людям создавать или обмениваться контентом, меняет возможные варианты. Например, когда генеративные состязательные сети (GAN) - тип искусственного интеллекта, который можно использовать для генерации человеческих лиц 93 - начали создавать изображения людей наравне с изображениями на стоковых фотографиях, манипуляторы быстро включили эту технологию в свои сценарии, используя их в качестве фотографий профиля для поддельных аккаунтов. 94 Стоковые фотографии и украденные изображения реальных людей исследователям дезинформации было относительно легко обнаружить: быстрый поиск изображений в Google мог выдать оригинал, что являлось тревожным сигналом, что профиль не является тем, за кого он себя выдает. Лица, сгенерированные GAN, устранили этот простой признак.

Однако "фотографии" людей, которых на самом деле не существовало, не были полностью неразличимы. Глаза, носы и рты, созданные таким образом, располагались в определенных областях фотографии. ИИ также часто искажал такие детали, как зубы, уши и границу между волосами и фоном. Вещи, которые, по мнению человека,